KW 38Die Woche, als die EU-Kommission den Kids Act vorlegte

Die 38. Kalenderwoche geht zu Ende. Wir haben 16 neue Texte mit insgesamt 154.720 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

  • Sebastian Meineck

Liebe Leser*innen,

diese Woche Donnerstag hat EU-Kommissionspräsidentin Ursula von der Leyen (CDU) ihren Vorschlag für den Kids Act vorgelegt, ein Gesetz für umfassende Alterskontrollen im Namen des Kinder- und Jugendschutzes. Einen Tag vorher haben wir den Entwurf veröffentlicht und analysiert.

Viele Nachrichtenmedien haben berichtet, die EU plane ein Social-Media-Verbot bis 13 Jahre. Das ist nicht falsch. Aber es ist auch nicht der springende Punkt. Die EU-Kommission plant weitaus mehr. Im Zweifel soll jeder Mensch im Netz als minderjährig gelten – bis er das Gegenteil beweist.

Das australische Modell, das der EU als Vorbild diente, verlangt Altersschranken „nur“ für Accounts auf großen Plattformen wie TikTok oder Instagram. Das europäische Modell dagegen verlangt Altersschranken bereits für den Zugang zu allerlei Orten im Netz, sofern sie nicht kindgerecht gestaltet sind. Es geht also auch um kleinste soziale Netzwerke, um Videoplattformen und Chatbots, um Apps und Spiele mit Alterskennzeichnung.

Natürlich kommt es auf die genaue Ausgestaltung an. Für welche Angebote ist die Regulierung am Ende des Tages wirklich anwendbar und durchsetzbar; wie streng fallen die Alterskontrollen aus? Auf dem Weg vom Papier bis zur Praxis können solche Vorhaben auch mal versanden. Aber fürs erste müssen wir ernst nehmen, was der Entwurf verlangt. Und im Entwurf sind die Schwellen für Alterskontrollen sehr niedrig. Ausdrücklich soll es keine Ausnahmen für kleine und kleinste Unternehmen geben.

Das Bild vom Internet, das aus dem Kids Act hervorgeht, ist nicht das Internet, das wir heute kennen. Es ist eher ein Teletubby-Land. Erst ein Altersnachweis wird zum Ticket für die digitale Welt, die heute noch weitgehend offen zugänglich ist.

Bei der Umsetzung sollen laut Entwurf alle mitmachen. Jeder Mensch im Netz soll sich den Alterskontrollen beugen, beispielsweise mit einer Version der von der EU vorgelegten Alterskontroll-App. Mit dieser App soll man den eigenen Ausweis scannen. Die App soll dann allerdings nur ein Alterssignal weiterreichen, etwa: „über 18“.

Der Traum jeder autoritären Regierung

Am Anfang sind die Datenschutzversprechen hoch. Alles soll möglichst anonym sein. Aber diese Versprechen bröckelten schon von Beginn an. Der vorgestellte Prototyp der Alterskontroll-App war zunächst nicht wie versprochen anonym, sondern pseudonym. Die angeblich seit April „fertige“ App ist immer noch nicht fertig. Ich kann sie nicht herunterladen und ausprobieren. Im Gesetzentwurf ist zwar die Rede vom für Datenschutz wertvollen „Zero Knowledge Proof“, aber in einer grammatisch sinnlosen Aussage. Solche Patzer sägen am Vertrauen.

Am gefährlichsten finde ich, was aus so einer Infrastruktur für Alterskontrollen werden kann, wenn sie erst einmal da ist. Wenn Millionen Menschen in der EU wie selbstverständlich ihr Alter nachweisen, bevor sie etwa einen Kino-Trailer auf YouTube schauen oder ein Handy-Spiel ab 12 herunterladen. Schon ein kleines App-Update und eine Verschärfung der Rechtslage könnten genügen, damit Alterskontroll-Apps nicht mehr bloß anonyme Alterssignale weitergeben, sondern Klarnamen.

Was die EU-Kommission hier bauen will, ist eine Infrastruktur für Ausweispflicht und Klarnamenpflicht im Netz – auch wenn sie zunächst nicht scharfgestellt ist. Das finde ich beunruhigend. Ein solcher Kontroll-Apparat wäre der Traum jeder autoritären Regierung.

Eltern sollen das Sorgerecht über ihre Kinder nachweisen

Als wäre das noch nicht genug, soll im Windschatten der Altersnachweise ein zweiter Kontroll-Apparat entstehen. Möchten Eltern einen beaufsichtigten Social-Media-Account für ihr 13-jähriges Kind einrichten, etwa auf Instagram oder TikTok, dann sollen sie nicht nur die Altersnachweise für sich selbst und für ihr Kind vorlegen. Sie sollen drittens auch noch nachweisen, dass sie für ihr eigenes Kind sorgeberechtigt sind. Die EU-Mitgliedstaaten sollen einen Weg für entsprechende digitale Nachweise schaffen.

Aus den geplanten Vorschriften für Sorgerechtsnachweise spricht die eiserne Stimme einer Regierung, die ihren Bürger*innen anscheinend keinen Millimeter über den Weg traut. Stellen wir uns vor, da möchte ein Vater einfach nur einen elterlich überwachten Instagram-Account für die 14-jährige Tochter einrichten. Und dann kommt diese Stimme, die sagt: „Beweise mir erst mal, dass du wirklich erwachsen bist. Beweise mir erst mal, dass dein Kind wirklich schon mindestens 13 Jahre alt ist. Beweise mir erst mal, dass dieses Kind wirklich dein eigenes ist. Sonst läuft hier gar nix!“ – Liebe EU-Kommission, wie stellt ihr euch das vor?

Es passiert gelegentlich, dass der erste Aufschlag für eine Regulierung aus strategischen Gründen völlig überzogen ist. So entsteht Verhandlungsmasse für Parlament und Ministerrat, und aus Perspektive von Grundrechten erscheint es bereits wie ein Erfolg, wenn am Ende eine zumindest halbwegs erträgliche Regulierung übrig bleibt. Ich finde aber, das darf kein Maßstab sein.

Umso wichtiger ist es, die Pläne in ihrer vollen Drastik zu benennen. Nein, hier geht es längst nicht nur um ein Social-Media-Verbot für unter 13-Jährige – wobei selbst dieses Vorhaben beim Deutschen Ethikrat durchgefallen ist. Es geht um ein gefährliches Kontrollsystem für weite Teile des Internets. Auf dem Spiel stehen Grundrechte wie Teilhabe, Meinungsfreiheit und Informationsfreiheit für jüngere und ältere Menschen gleichermaßen. Wir werden nicht lockerlassen.

Euch ein schönes Wochenende
Sebastian

 

Wir schlagen Alarm. Für deine Grundrechte.

Unsere Artikel der Woche

DegitalisierungDer Bärendienst

Der Name der Stadt Berlin ist nicht direkt mit Bären verwandt. Und doch haben dort gleich mehrere Bärendienste einen großen Cyberangriff begünstigt. Dieser Angriff ist kein Einzelfall und die Informationssicherheit in Deutschland grotesk.

Warnung vor „katastrophalen Schäden“Künstliche Intelligenz ist kein Naturereignis

Anthropic und OpenAI sind mal wieder vom Tempo ihrer eigenen Entwicklung beunruhigt. Eindringlich warnen sie davor, dass generative KI außer Kontrolle geraten könnte. Der eigentliche Kontrollverlust droht aber, wenn Medien und Politik ins gleiche Horn blasen. Ein Kommentar.

Interview über KI und das Lavender-SystemAutomatisierte Todeslisten

Computersysteme, die automatisiert in Echtzeit große Datenmassen auswerten, verändern die militärische Zielauswahl. Eine Analyse des Lavender-Systems zeigt: Solche Software verstößt gegen völkerrechtliche Verpflichtungen. Wir sprechen mit Taylor Kate Woodcock und Rainer Rehak über die Folgen von „KI“ in bewaffneten Konflikten. Sie fordern die sofortige Stilllegung solcher Systeme.

Interview on Lavender„Civilian harm is pre-programmed into the system“

Software that automatically evaluates large amounts of data in real time is changing the way military targets are selected. An analysis of the Lavender system shows that it violates international humanitarian law. We speak with Taylor Kate Woodcock and Rainer Rehak about the consequences of „AI“ in armed conflicts.

Hackspaces vor der Landtagswahl„Was technisch ist, ist immer politisch“

Was tun Hackspaces im Rechtsruck? Mitglieder aus vier Hackspaces in Mecklenburg-Vorpommern erzählen, wie sie über Rassismus aufklären, mit kontroversen Meinungen umgehen und Menschen den Rücken stärken.

EU Kids ActEU-Kommission will Netz mit Alterskontrollen zupflastern

Für viele soziale Medien, Videoplattformen, Apps und Spiele sollen Menschen künftig ihr Alter kontrollieren lassen. Und wenn Erwachsene für Kinder einen Account einrichten, sollen sie ihre Sorgeberechtigung nachweisen. Das und mehr steht im Entwurf der EU-Kommission für den EU Kids Act, den wir hier veröffentlichen.

Rede zur Lage der Union„Wir wollen Künstliche Intelligenz“

In ihrer Rede zur Lage der Union räumte EU-Kommissionspräsidentin Ursula von der Leyen sogenannter Künstlicher Intelligenz viel Platz ein. Dabei stellte sie klar: KI soll sich überall in der Gesellschaft breitmachen.

10-Punkte-Plan nach dem CSD-AnschlagDie volle Härte des Strafstaats

Nach dem Anschlag auf den CSD legt die Bundesregierung altbekannte Maßnahmen auf den Tisch. Das Versagen von Behörden kaschiert sie, zum Schutz queerer Menschen fällt ihr nichts ein. Stattdessen geht es um Härte und Strafen. Ein Kommentar.

Klage vor VerwaltungsgerichtPolizei fotografierte anlasslos Demonstrierende mit Transparent

Wer ein Transparent auf eine Demo mitnimmt, muss damit rechnen, in den Fokus der Polizei zu geraten. Das darf nicht sein, findet die Gesellschaft für Freiheitsrechte, denn Schilder und Plakate sind ein wichtiger Teil der Versammlungsfreiheit. Sie klagt nun gegen die Berliner Polizei.

Protest in BerlinMit Gandalf gegen Peter Thiel

Wenn der rechte Milliardär Peter Thiel in Berlin den Axel-Springer-Award bekommt, wird dies nicht ohne Widerspruch über die Bühne gehen. Ein Bündnis hat laute und kreative Proteste und einen Gandalf-Kostümwettbewerb gegen die Preisverleihung angekündigt.

Europäisches MedienfreiheitsgesetzEin Privileg, das kaum ankommt

Eigentlich dürfen Instagram, TikTok & Co. journalistische Inhalte nicht mehr einfach löschen. So will es ein EU-Gesetz. Nun haben die Online-Dienste erstmals Transparenzberichte veröffentlicht und offengelegt, wie oft sie dennoch eingreifen. Doch die Zahlen zeichnen ein unvollständiges Bild.

Über die Autor:innen

  • Sebastian Meineck

    Sebastian Meineck ist Journalist und seit 2021 Redakteur bei netzpolitik.org. Zu seinen aktuellen Schwerpunkten gehören digitale Gewalt, Databroker und Jugendmedienschutz. Er schreibt einen Newsletter über Online-Recherche und gibt Workshops an Universitäten. Das Medium Magazin hat ihn 2020 zu einem der Top 30 unter 30 im Journalismus gekürt. Seine Arbeit wurde mehrfach ausgezeichnet, unter anderem zweimal mit dem Grimme-Online-Award sowie dem European Press Prize.

    Kontakt: E-Mail (OpenPGP), Sebastian Hinweise schicken | Sebastian für O-Töne anfragen | Mastodon

    Foto: Philipp Sipos


Veröffentlicht

Kategorie

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

Schreibe eine Ergänzung!

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert